Lychee:高召回向量搜索的倒排列表认证筛选
🧭 高性能向量检索 · GPU 倒排索引
University of Washington, Tacoma School of Engineering and Technology
Lychee 在 GPU 倒排索引上通过 certified screening 跳过大部分向量读取,实现高召回向量搜索加速
📌 工作参考价值(4 点)
- 在电商/推荐的高召回向量召回场景(如风控、相似商品去重、内容安全)中,可在现有 IVF/倒排索引上增加基于 anchor 的 certified lower bound 预筛,用 GPU tensor cores 做数值比对,避免读取全精度向量,显著降低显存带宽压力;可参考其证明框架,确保不损失召回。
- 若业务使用 cuVS / Faiss IVF-Flat,可借鉴 Lychee 的筛选顺序:先按 bound 递增处理候选,快速排除大部分不相关向量,只对少数候选计算精确距离;尤其适合 probe 数较大、追求 0.999+ recall 的场景,吞吐不再与 probe 数量成反比。
- 多 GPU 扩展方案对亿级/十亿级商品 embedding 库有参考价值:通过分片和跨 GPU 合并,可在 4 卡上达到十亿向量 0.9999 recall 的工程可行性。
- 对使用量化/图索引但需要高召回的业务,该方法的“certified exact top-k of probed lists”特性可替代部分重排,避免全量 rerank,平衡精度与延迟。
从图搜索入手改进学习型稀疏检索
🧭 稀疏检索 · 图索引加速
MIT CSAIL · ISTI-CNR · Linkup · University of Pisa
提出 GRIP 图索引系统,将倒排启发式融入图搜索,在 MS MARCO v2 上比 Seismic 快 2.5 倍
📌 工作参考价值(4 点)
- 如果业务在用 SPLADE、BGE-M3 sparse 等做大规模召回,不要默认倒排索引最优;可以评估 GRIP 这类图索引在商品/广告库上的 recall-latency,尤其在线服务对 95% recall@10 敏感时。
- 三个 trick 可拆开迁移:term-based entry point seeding 可插到 HNSW 等通用图 ANN 的初始节点选择;sparse sketching 适合高维稀疏 embedding 的快速距离裁剪;sparse partition-based 构图可适配电商 SKU 或类目聚集的稀疏分布。
- 如果线上同时维护倒排和图索引,可以用倒排表的高权重 term 作为图入口点或构图先验,降低重构图成本;增量更新时优先围绕高分词、高曝光 item 重建局部图。
- 注意标准 dense ANN 直接套到 sparse vectors 效果差,迁移前要做小规模 benchmark,关注稀疏度、term 分布和维度差异。
SSR:面向 LLM 编排多智能体系统的结构化信号检索器
🧭 多智能体 Agent 发现的确定性检索
Institute of Computing – State University of Campinas, Brazil
用 Agent Card 结构化字段 + IDF 权重 + 倒排信号索引,在不训练的情况下压缩候选上下文,实现可扩展 Agent 发现
📌 工作参考价值(4 点)
- 在多 Agent 推荐/搜索编排中,Agent 注册表规模增长时,不要把所有 Agent Card 都塞进 LLM 上下文:可提取 capability-bearing 字段(如技能、工具描述)构建结构化倒排索引,先做确定性候选预筛,只把 top-k 卡片交给 orchestrator,能直接降低 token 成本、延迟和上下文超限风险。
- 对电商/广告场景中的工具或子 Agent 路由,IDF 加权的结构化稀疏检索比 embedding 检索更轻量、可追溯、无训练成本,适合需要审计和冷启动的服务发现模块;可用类似方式给商品类目、服务能力字段建索引。
- 论文的 Inverted Signal Index 思路可复用到 RAG 或推荐召回:只对高区分度字段/信号显式打分,避免全量候选逐一过模型,在保证效果的同时减少计算量;其 MS MARCO 实验中显式打分段落减少 96.8% 的结果说明了这一点。
- 端到端编排中维持紧凑候选上下文是工程上的关键约束:即使上游检索指标不变,控制送入 LLM 的候选数量也能避免全量 catalog 带来的 operational failure,这对生产级 Agent 系统和高并发广告出价/推荐链路都有参考价值。
从交付到有状态探索:重新思考 Agentic 搜索的索引
🧭 Agentic Search 索引原生交互接口 ★ 深度解读
Yonsei University
提出 INDEXACT 索引原生接口,将候选集细化与源文本检查分离,用可复用状态与统计反馈提升多跳搜索证据发现并降低上下文占用
📌 工作参考价值(4 点)
- 在电商/广告 Agent 搜索中,可借鉴“候选集引用 + 统计反馈”解耦:工具返回 SetRef 和候选集大小/条件命中数,而不是直接返回商品或文档列表,减少模型上下文浪费,尤其适用于多轮筛选和长程导购场景。
- 状态化集合操作(FILTER/INTERSECT/UNION/DIFFERENCE)可复用中间候选集,避免重复检索;电商商品库筛选(类目、品牌、价格区间)天然适合基于倒排索引的布尔/位置条件,工程上可直接基于 Lucene 构建,成本较低且可扩展。
- 精确统计(COUNT_DOCS)优于二进制空/非空:实验显示二进制反馈准确率从 74.0 降至 62.0,精确计数让 Agent 判断条件是否过窄/过宽,辅助其决定继续过滤还是读取证据,可应用于导购 Agent 的条件探索。
- 细粒度读取(AROUND/DOCUMENT/RANGE)按需返回局部上下文,避免自动注入无关文本;Agent 可用 AROUND 定位关键词周边内容验证证据,减少非证据 token 占比,提升长上下文稳定性。
SOLO:基于扫描采样倒排列表的可认证召回相似性搜索
🧭 向量检索 · 可认证召回 ANN 索引
CICESE
SOLO 索引以无排序启发式的扫描倒排列表实现可证明召回,在 1GB 内存下 Deep-100M 召回 0.9977
📌 工作参考价值(4 点)
- 大规模向量召回的内存优化:在商品 embedding 库亿级甚至十亿级时,SOLO 的扫描式倒排索引只需少量字节/对象(如 10.7 字节)即可达到 0.9977 召回,远低于 HNSW/DiskANN 的内存下限;适合作为电商推荐召回的高性价比底座,尤其在内存受限的在线服务或边缘部署中。
- 可认证召回特性:SOLO 召回等于覆盖概率,可通过一次查询样本的 ground-truth pass 离线算出所有操作点,无需在线反复 A/B;可将召回 SLA 直接与索引参数绑定,降低质量风险。
- 动态更新友好:插入等于一次搜索、删除精确,相比 HNSW 的复杂删除和图维护,更适合商品频繁上下架、embedding 定期更新的场景;可简化索引运维。
- 结构可扩展:路由与扫描分离、叶节点扫描的设计便于与压缩/量化 embedding 结合,进一步节省内存;且路由器可递归索引,适合构建分层/多级召回。
协同进化生成式检索:查询与物品双侧关键词空间的强化学习联合优化
🧭 生成式检索 · 双侧关键词协同进化 RL ★ 深度解读
University of North Carolina at Chapel Hill · Apple
用双侧 LLM 生成关键词并直接做倒排索引匹配,通过 SFT 对齐与交替 GRPO 协同进化,F1 最高提升 36.1%
📌 工作参考价值(4 点)
- 可直接落在电商/广告关键词召回系统:用两个 LLM 分别生成 item 侧搜索词和 query 侧扩展词,再通过倒排索引匹配,天然兼容广告主 keyword bidding 和现有 keyword-based 基础设施,比只优化 query 侧更贴近业务可控性。
- SFT 对齐初始化便宜且有效:先用 base LLM 离线为每个 item 生成关键词,再按相关 item 的关键词池聚合出 query 目标关键词;这样能避免 RL 冷启动,也适合用行为/成交 labels 构造对齐数据。
- item 侧用 counterfactual marginal reward 优化全局 F1 很实用:工程上通过缓存参考索引和只计算受影响 query 集合,避免每次 rollout 重建全量索引;在业务中可以把 F1 换成加权 F-measure,按 precision/recall 优先级调节,例如更严地惩罚无关广告。
- 给 query 生成器加搜索结果或在线提示,能明显提升效果:Internal 数据集上 +Search Results 将 F1 从 0.3963 提升到 0.4379,适合解决拼写错误、非英文、实体型 query;在 Agent 搜索/推荐场景中,可把已有检索结果作为 context 注入生成器。
misi:基于随机样本的度量空间倒排索引
🧭 度量空间近似最近邻索引
CICESE
用数据库随机样本作为词汇表构建近似最近邻倒排索引,构建快且省内存,查询吞吐弱于图索引
📌 工作参考价值(4 点)
- 商品/内容 embedding 召回索引需要频繁更新(新品上架、活动换向量)时,misi 的构建可并行、确定性、比匹配召回 graph 构建快 3.7x,适合每日/小时级全量重建,避免在线增量索引不一致。
- 倒排样本思路可迁移为“粗召回-精排”两阶段:先用小样本词汇表构建轻量倒排,idf 加权投票快速取候选,再用高精度模型验证,适合在严格内存预算(如 8GB)下服务大规模候选库。
- 使用黑盒度量/多模态 embedding(如 CLIP 或用户-商品联合空间)时,无需修改距离定义即可索引;RAG 知识库频繁更新、设备端内存受限场景可复用。
- 注意查询吞吐是代价,线上高 QPS 场景应将其作为冷启动/离线批处理组件,或与 graph 索引组合,用其快速重建能力定期刷新主索引。
超图嵌入索引:高效稠密向量检索
🧭 向量检索 · 倒排索引
Sodhana
HEI 按高激活潜维度组合组织文档,用倒排索引生成候选并保留语义排序
📌 工作参考价值(4 点)
- 在电商向量召回中,可将商品/用户 embedding 的高激活维度组合构造成倒排索引,替代或混合 HNSW,降低线上粗排阶段延迟与内存占用;适合作为大规模候选生成层。
- 采用多个互补超图(不同维度子集、不同激活阈值、不同语义簇)做多路召回,再融合重排,能提升长尾商品或冷门内容的覆盖,避免单超图维度增加带来的组合爆炸。
- 引入 activation diversity 作为诊断指标:评估当前训练出的 embedding 是否适合坐标倒排索引;若 diversity 低,可考虑加稀疏正则、维度解相关或调整训练目标,使向量更可索引。
- 该框架对 embedding 的稀疏/高激活特性有依赖,在业务中可先对已有向量做激活分布分析,判断是否值得迁移到倒排索引路线。
ColBERTSaR:通过乘积量化实现ColBERT索引稀疏化
🧭 神经检索 · 索引压缩与稀疏化
Johns Hopkins University
利用乘积量化将ColBERT密集索引转化为真正的倒排索引,在保持效果的同时缩小索引50-70%
📌 工作参考价值(4 点)
- 多向量检索索引压缩:如果业务中使用类似ColBERT的多向量检索(如商品多模态嵌入匹配),可直接借鉴乘积量化将每篇文档的Token嵌入离散化为码本ID,构建经典倒排索引,大幅降低存储和查询时的解压开销。
- 平衡效果与存储:该方法在保持检索质量的前提下,索引大小仅为1-bit PLAID的30%-50%,对于资源受限的电商搜索或推荐系统,可作为一种轻量级部署方案。
- 查询效率优化:传统ColBERT查询瓶颈在于“收集-解压”阶段,本工作通过量化将直接倒排查询,省去了在线解压和MaxSim的全量聚集,适合要求低延迟的实时推荐或搜索场景。
- 学习稀疏化思路:文中指出的“嵌入量化等价于学习稀疏检索”观点,启发我们可以用类似方法将其他稠密检索模型压缩为稀疏表示,方便与现有搜索引擎基础设施集成。
告别K-means:单阶段稀疏编码实现高效多向量检索
🧭 多向量稀疏检索 · 倒排索引加速 ★ 深度解读
Stony Brook University · Xidian University · Amazon AGI SF Lab · Georgia Tech · Yale University
提出SSR框架,用Sparse Autoencoder将token嵌入稀疏化,直接构建倒排索引,实现精度、速度和索引速度三赢。
📌 工作参考价值(4 点)
- 电商搜索/推荐召回中,可用稀疏编码替代K-means聚类构建索引,大幅降低离线索引时间(15倍加速),适合实时更新频繁的语料。
- 训练时联合重构损失与对比损失的混合目标,可保证稀疏特征既保留语义又具备判别力,可借鉴到query-doc/query-item匹配的稀疏表示学习。
- 倒排索引上利用块级上限跳过与粗到精剪枝(SSR++),在保证精度无损前提下将延迟减半,对高流量在线检索场景有直接工程价值。
- 该方法可扩展到LLM backbone,结合现代大模型生成式推荐或Agent的记忆检索,用稀疏token交互实现高效知识召回。
重思Agentic RAG:从复杂后端到LLM驱动的逻辑检索
🧭 Agent RAG的检索接口与控制权设计 ★ 深度解读
Fudan University · Shanghai Kingstar Software Technology Co., Ltd.
提出LLM用布尔逻辑直接操控倒排索引,匹配混合检索性能同时大幅降低构建与推理成本
📌 工作参考价值(4 点)
- 电商搜索/Agent RAG可借鉴“LLM生成结构化查询+倒排索引”的组合,用AND/OR/NOT精确控制召回,避免稠密检索的语义漂移与冗余结果,尤其在多轮澄清场景下能显著降低无效重试。
- 当知识库规模大、更新频繁时,跳过离线Embedding与FAISS索引,用OpenSearch等倒排引擎直接响应LLM的布尔表达式,可节省41倍构建时间与约3倍在线延迟,适合高频变动商品库。
- 答案不可用时的幻觉降低(0.128→0.083)源于显式约束失败可被LLM解读为“证据缺失”,这一信号可借鉴到Agent的拒绝回答策略中,提高推荐或问答系统的可靠性。
- “重脑轻手”架构将复杂推理留给LLM,检索端仅做确定性执行,该边界划分可简化整个系统迭代——检索索引成为无状态工具,更易维护和扩展。